KI-Gipfel in Bletchley: 28 Staaten und eine große Leerstelle

Es ist ein politischer Höhepunkt für das meistgehypte Technologie-Thema des Jahres, Künstliche Intelligenz. Der britische Premierminister Rishi Sunak hat am 1. und 2. November Vertreter*innen aus Politik, Wirtschaft und Wissenschaft eingeladen. Anlass war Großbritanniens KI-Sicherheits-Gipfel (UK’s AI safety summit). Schon der Ort ist historisch; im Landsitz Bletchley Park arbeiteten einst Analyst*innen im Zweiten Weltkrieg daran, die codierten Nachrichten der Nazis zu entschlüsseln. Diese Woche sollten führende Köpfe in Bletchley Park die Gefahren sogenannter KI diskutieren.

Zu den Teilnehmenden gehörten neben EU-Kommissionspräsidentin Ursula von der Leyen (CDU) auch US-Vizepräsidentin Kamala Harris und der deutsche Vize-Kanzler Robert Habeck (Grüne). Es gab zudem Delegierte aus unter anderem China, Indien, Indonesien, Brasilien, Japan, Korea, Saudi-Arabien. Tech-Manager wie Elon Musk (Twitter, Tesla) und Sam Altman (OpenAI, ChatGPT) waren geladen, außerdem Vertreter*innen von Meta, Google, Amazon, Alibaba und vielen weiteren. Der britische Guardian spricht von einem „diplomatischen Coup“.

Wie es sich für internationale Gipfel gehört, endete die Versammlung mit einem gemeinsamen Schreiben. Die „Bletchley Declaration“ beschreibt auf rund 8.000 Zeichen die Chancen und Gefahren von Künstlicher Intelligenz – und wie die Unterzeichner*innen damit umgehen wollen.

Die Erklärung ist eingebettet in internationale Bemühungen rund um die Regulierung Künstlicher Intelligenz. So ist die Europäische Union in den letzten Zügen der Verhandlungen einer KI-Verordnung, Chinas neue KI-Regeln sind im August in Kraft getreten. Und in den USA hat Präsident Joe Biden diese Woche ein Dekret erlassen, das strengere Regeln anstoßen soll. Währenddessen investieren Konzerne Milliarden in sogenannte generative KI, die auf Grundlage von großen Datenmengen neue Inhalte erzeugt, etwa Texte, Bilder und Audios.

Aus der Bletchley-Erklärung spricht viel Zeitgeist: Es lohnt sich zu untersuchen, wie genau der Text Künstliche Intelligenz beschreibt, welche Gefahren und Lösungswege er direkt anspricht – und welche nicht. Und es zeichnet sich ab, welche Probleme sich trotz oder gerade wegen dieser Erklärung nicht lösen werden.

„Frontier AI“: Star Trek lässt grüßen

Ein zentraler Begriff der Erklärung ist das schillernde Wort „frontier“, das darin gleich acht Mal auftaucht. „Frontier“ lässt sich je nach Kontext mit Grenze, Grenzland oder Neuland übersetzen. Im US-amerikanischen Kontext weckt der Begriff die Assoziation vom Vordringen in neue, ungewisse Gefilde. So galt der sogenannte „Wilde Westen“ in der nordamerikanischen Kolonialzeit ebenso als „frontier“ wie heute der Weltraum. In der jüngeren Geschichte nutzte sowohl die NASA diesen Begriff für den Weltraum wie auch das (fiktive) Star-Trek-Franchise.

Und nun werden also auch KI-Systeme auf höchster politischer Ebene als „frontier“ verkauft. Gemeint sind laut Bletchley-Erklärung „hochgradig fähige KI-Modelle für allgemeine Zwecke“. Diese Definition ist äußert wolkig, fügt sich aber nahtlos ein in die aufgeplusterten Erzählungen von schier übermenschlichen KI-Technologien, die wir auf netzpolitik.org bereits als „große Science-Fiction-Show“ beschrieben haben. Angetrieben werden diese Erzählungen gewiss auch von Marketing-Interessen großer Konzerne, die ihre überaus kostspieligen Anwendungen wie ChatGPT allein auf Pump finanzieren. Mit ihren großen Versprechen hoffen sie auf große Geldspritzen.

Schon ohne den Zusatz „frontier“ ist der Begriff Künstliche Intelligenz wolkig. Es ist ein Sammelbegriff für Anwendungen, die viele Daten zueinander in Beziehung setzen und auf dieser Grundlage Antworten berechnen. Sie lösen Aufgaben, die man einer Maschine früher nicht zugetraut hätte, sondern einem Menschen. Der Begriff wandelt sich ständig: Früher galten Assistenz-Systeme wie Siri von Apple noch als „KI“. Inzwischen hat Siri diesen Status für einige wohl wieder verloren, denn Nachrichtenmedien stellen die sonderbare Frage, ob Siri mit „KI“ ausgestattet werden soll. Gemeint ist offenbar neuartige, generative KI im Stil von ChatGPT. Es erscheint, den Status „KI“ bekommt vor allem jene vielversprechende Technologie, an die man sich noch nicht gewöhnt hat.

Die Bletchley-Erklärung übernimmt die großen Versprechungen einiger Branchen-Vertreter*innen, wenn es zu Beginn heißt: KI habe „das Potenzial, das menschliche Wohlergehen, den Frieden und den Wohlstand zu verändern und zu verbessern.“ Erstaunlich ähnlich hatte es auch OpenAI-Chef Sam Altman formuliert, als er in einem Podcast sagte: „Wir können die Welt wunderbar machen, und wir können das Leben der Menschen wunderbar machen.“ Immerhin hatte Altman diese Schwärmerei noch kritisch eingeordnet, indem er dazu sagte: „Ich hasse es, wie ein utopischer Tech-Bro zu klingen“. In der Bletchley-Erklärung fehlt eine solche Einordnung. Die Unterzeichner*innen bekennen sich ganz ohne Distanzierung zur utopischen Tech-Bro-Haftigkeit.

Verbale Gruppen-Umarmung

Beim Lesen der Bletchley-Erklärung kann es einem schon etwas warm ums Herz werden. Immerhin sprechen sich hier dutzende Staaten für eine KI „zum Wohle aller“ aus. Sie soll „in einer sicheren, auf den Menschen ausgerichteten, vertrauenswürdigen und verantwortungsvollen Weise konzipiert, entwickelt, eingesetzt und genutzt werden“. Dafür bezeichnen sich die Unterzeichner*innen als „entschlossen, auf integrative Weise zusammenzuarbeiten“. Unterzeichnet haben das sogar autoritäre Staaten wie China, Saudi-Arabien, und die Vereinigten Arabischen Emirate.

Die Unterzeichner*innen wollen ihren Plan darauf ausrichten, die Risiken von KI-Systemen wissenschaftlich zu erforschen und auf dieser Grundlage Regeln zu entwickeln, heißt es in der Erklärung weiter; Unternehmen sollten Transparenz herstellen. Außerdem wolle man im Gespräch bleiben und sich 2024 wieder treffen.

Auf diplomatischer Ebene mag das durchaus eine Leistung sein: Am Ende eines zwei-tägigen Gipfels gibt es eine von vielen Staaten getragene Erklärung, die sich wie eine verbale Gruppen-Umarmung liest. Gemeinsam forschen, gemeinsam reden – na, wenn das mal nichts ist. Klopft man allerdings gegen die Worthülsen, dann ertönt ein beklemmend hohles Geräusch.

Es sind nämlich schon längst KI-Systeme im Einsatz, die weder „sicher“, noch „vertrauenswürdig“ noch „verantwortungsvoll“ sind, und die systematisch dem „Wohl“ von Menschen schaden. Kameras in der Stadt sollen angeblich verdächtige Bewegungsmuster erfassen. Software in der Personalabteilung soll angeblich schlechte Bewerbungen aussortieren. Rechenprogramme sollen der Polizei verraten, wo angeblich kriminelle Menschen wohnen. Lügendetektoren an der EU-Außengrenze sollen bestimmen, ob Asylsuchende die Wahrheit sagen. Autopiloten sollen bewaffnete Drohnen steuern, bevor sie angebliche Feinde in die Luft sprengen.

Windelweich: Menschenrechte „adressieren“

Schon bei den Verhandlungen zur KI-Verordnung der Europäischen Union hat sich gezeigt: Auch demokratische Staaten wehren sich gegen Einschränkungen beim Einsatz problematischer KI-Systeme, versuchen gezielt Ausnahmen herauszuhandeln und damit die neu entstehenden Regeln zu verwässern. Noch immer ist fraglich, ob die KI-Verordnung biometrische Massenüberwachung durch ein Verbot eindämmen kann.

In der Bletchley-Erklärung steht zwar der Hinweis: „KI-Systeme werden bereits in vielen Bereichen des täglichen Lebens eingesetzt“. Weiter wagt sich die Erklärung aber kaum vor.

Es gibt noch einen windelweich formulierten Satz: Man „begrüße“ die Erkenntnis, dass Menschenrechte, Ethik, Datenschutz und die Eindämmung von Bias „adressiert werden“ müssen, heißt es. Das ist eine fatale Leerstelle, denn eine klare Verpflichtung zu Menschenrechten sieht anders aus. Zur Verdeutlichung: wenn jemand mein Auto zu Schrott fährt, und mir dann dann sagt: „Ich begrüße die Erkenntnis, dass die Erstattung deiner Unkosten adressiert werden muss“, dann heißt das wahrscheinlich: „Du bekommst von mir keinen Cent.“

Insgesamt drei mal taucht das Wort Menschenrechte in der Bletchley-Erklärung auf, drei Mal auf ähnliche Weise verklausuliert. Wie soll eine internationale Gemeinschaft in Zukunft Technologie zum „Wohle aller“ gestalten, wenn sie schon in der Gegenwart einen so großen Bogen um Menschenrechte macht?

Die eigentliche „Frontier“

Die unbequeme Wahrheit ist, dass Künstliche Intelligenz in gesellschaftliche Verhältnisse eingebettet ist, wie jede andere Technologie auch. KI-Systeme werden im Kontext von Machtverhältnissen entwickelt und eingesetzt. Sie können diese Machtverhältnisse festigen und sogar verstärken. Darum macht die Bletchley-Erklärung allerdings einen Bogen.

Die größte Gefahr der Technologie besteht darin, dass privilegierte Menschen KI-Systeme entwickeln, und damit ihre Machtposition gegenüber marginalisierten Menschen ausbauen, sei es absichtlich oder fahrlässig. Zum Beispiel wenn Staaten mit asylfeindlicher, rassistischer Politik per Gesichserkennung Menschen aussortieren, denen sie keinen Schutz gewähren wollen. Oder wenn Angehörige einer weißen, männlichen, ableisierten Mehrheitsgesellschaft ein KI-System entscheiden lassen, welche Job-Bewerbung in die engere Auswahl kommt.

Ungerechte, gesellschaftliche Machtverhältnisse lassen sich nur gesellschaftlich angehen. Genau dafür wurden Grund- und Menschenrechte erfunden. Wenn es bei dem Thema eine „Frontier“ gibt – also ein kühn zu erkundendes Grenz- und Neuland – dann ist es die konsequente Durchsetzung dieser Rechte.

Die Hoffnung, dass Technologie allein die Welt verbessern kann, wenn man sie nur gut genug gestaltet, heißt Tech-Solutionismus. Es ist der Irrglaube, dass Maschinen die Probleme von Menschen lösen können. Und es ist bereits reiner Tech-Solutionismus, wenn die Bletchley-Erklärung von KI „zum Wohle aller“ schwärmt, von KI-generiertem „Frieden“ und „Wohlstand“.

Ohne wolkige Worte ist KI schlicht eine Software, also ein Werkzeug, das erst in den Händen von Menschen irgendeine Wirkung entfaltet. Es ist sicher nicht verkehrt, wenn die Bletchley-Erklärung einen Grundstein legt für mehr Transparenz, Forschung und internationalen Dialog, für jährliche Treffen. Doch an die eigentliche „Frontier“ herangewagt haben sich die Teilnehmenden kaum.